"Machines of Loving Grace"（2024年10月）
概要・執筆意図
著者はAI企業CEOとしてリスクを語ることが多いが、AIの「上振れ（ポジティブな未来）」も過小評価されていると主張
AIが全てうまくいった場合に世界がどう変わるか、具体的なビジョンを提示する目的で書かれた
強力なAIの定義
ノーベル賞受賞者レベルを超える知性を持ち、数学・プログラミング・生物学など多分野で人間を上回る
テキスト・音声・映像・マウス操作・インターネットなど人間と同様のインターフェースで作業可能
数百万インスタンスを並列稼働でき、自律的にタスクを数日〜数週間にわたって遂行できる
「データセンターの中の天才の国」と表現される
1. 生物学・健康
AIにより50〜100年分の生物学的進歩が5〜10年に圧縮される「圧縮された21世紀」が実現しうる
ほぼ全ての感染症の予防・治療が可能になる（mRNAワクチン等の技術的延長線）
がんの死亡率・罹患率が95%以上減少する可能性
アルツハイマー病の原因解明・予防が実現する可能性が高い
体重・外見・生殖など「生物的自由」が大幅に拡大する
人間の寿命が150年程度に倍増する可能性（20世紀の40歳→75歳と同様のトレンド）
2. 神経科学・精神健康
生物学と同様に「100年分の進歩を5〜10年で」が期待される
うつ病・統合失調症・PTSD・依存症など大多数の精神疾患が治癒可能になる
AIの解釈可能性研究が神経科学の理解を加速させる
認知機能の向上や「精神的自由」の拡大により、日常的な心理的問題も改善される
人間が体験できる幸福・充実・創造的霊感などの「最良の瞬間」の頻度が増す可能性
3. 経済発展・貧困
先進国のAIによる恩恵を途上国にも届けることが重要な道徳的課題
感染症対策・医療介入の途上国への普及が最も楽観的な分野
途上国で年率20%のGDP成長（AIによる政策支援10%＋技術普及10%）という夢のシナリオも描かれる
AI主導の「第二の緑の革命」による食料安全保障の改善
気候変動対策技術（炭素除去・クリーンエネルギー）をAIが加速させる
技術拒否（ワクチン反対運動のような現象）が一定のリスクとして残る 4. 平和・統治
AIは構造的に民主主義を優遇するとは限らず、プロパガンダや監視などで独裁政権も活用できる
民主主義国家が強力なAIを先行して確保し、軍事的優位と技術的恩恵の「飴と鞭」でリードする「連合戦略」が重要
情報の自由とAIを組み合わせることで、独裁政権への市民の抵抗を支援できる可能性
AIによって法制度の公平性・一貫性が向上し、偏見の少ない司法が実現しうる
行政サービス（医療・社会保障・税務など）の改善により民主主義への信頼が高まる
5. 労働と意味
AIが全ての仕事をこなせるようになっても、人間の「意味」はおもに人間関係や個人の達成感から生まれるため失われない 短期的には比較優位により人間の生産性は維持・向上するが、長期的にはAIが経済的に圧倒的優位になる
結論
上記全てが5〜10年で実現すれば、人類史上最大の人道的勝利となる
ただしそれは「自動的に起こる」ものではなく、多くの人々の努力・犠牲・連帯によって初めて実現する
公平・協力・自律・好奇心といった人間の基本的価値観がAI時代でも「勝利する戦略」になると著者は信じている
基素.icon科学は指数関数的に伸びてきた。それがもっと早くなる
Sonnet 4.6.icon
知性がいくら高まっても物理的・生物的な制約として残る
細胞が分裂する速度、動物実験にかかる時間、人体への臨床試験のサイクル
「指数の底」は上がるけど、「指数の指数」にはならないかもしれない
知性をいくら高めても、それ以外の要因がボトルネックになれば意味がない
外界の速度：細胞の増殖・化学反応・動物実験は物理的に時間がかかる。AIが賢くても待つしかない
データの不足：粒子物理学のように、理論がいくらあってもデータがなければ検証できない。賢さはデータを生まない
本質的な複雑性：カオス系（三体問題など）はどれだけ賢くても予測精度はほぼ上がらない
人間社会の制約：規制・習慣・政府行動など。核エネルギーや超音速飛行が技術的には完成しているのに普及しない例がこれ 物理法則：光速・チップ集積密度の限界・計算の最低エネルギー。これだけは絶対的な壁
重要な補足：壁は「迂回」できる場合がある
動物実験→細胞モデルの発明で「外界の速度」の壁を部分的に崩せる
臨床試験制度の改革提案で「社会的制約」を緩められる
知性は壁を直接壊せないが、壁を避ける新しい道を作れることがある
ただし物理法則だけは例外なく絶対的